Pada tanggal 22 Mei 2005, setelah SPD kalah kepada CDU dalam pilihanraya negeri Nordrhein-Westfalen, kubu kuat SPD, Schröder terus mengumumkan hasratnya untuk mengadakan pilihanraya umum "secepat mungkin" dan mengambil risiko kekalahan di tangan pengundi berikutan pungutan suara semasa yang langsung tidak memihak kepada partinya. Beliau sendiri telah merancang supaya kerajaan pimpinannya tewas dalam satu undi percaya di Bundestag bagi memberi laluan kepada presiden untuk membubarkan parlimen. Dalam undi tersebut pada 1 Julai 2005, ahli-ahli partinya diarahkan untuk tidak mengundi sekaligus menjamin kekalahannya kerana situasi itu telah digunakan oleh CDU dan sekutunya untuk memaksa pilihanraya mengejut diadakan.

Sebagai mengikut peruntukan Perlembagaan, Presiden Horst Kohler terpaksa membubarkan parlimen bagi memberi laluan kepada pilihanraya umum diadakan. Dalam pilihanraya umum itu, beliau berhadapan dengan CDU yang dipimpin oleh ahli politik yang semakin meningkat popularitinya, Angela Merkel. CDU bertindak menyerang usaha-usaha pembaharuan yang dibawa oleh kerajaan pimpinan Schröder. Namun, kebijaksanaan Schroeder berkomunikasi terutamanya, dalam debat umum dengan Merkel yang dipancarkan secara langsung di televisyen, berjaya mengurangkan jurang populariti kedua-dua parti.

Pilihanraya umum pada 18 September 2005 menyaksikan parti pimpinannya kalah tipis di tangan CDU. Pilihanraya itu turut menyaksikan kemasukan Parti Kiri.PSD pimpinan bekas lawannnya dalam SPD, Oskar Lafontaine secara besar-besaran di parlimen, sekaligus merumitkan usaha-usaha membentuk kerajaan baru. Hal ini wujud kerana gabungan tradisi CDU-FDP atau SPD-Hijau tidak memiliki majoriti. Keempat-empat parti itu turut menolak kemungkinan bekerjasama dengan Lafontaine yang dianggap sebagai pemimpin radikal sayap kiri.

Melalui perundingan, SPD bersetuju untuk menyertai kerajaan campuran besar bersama-sama CDU dan Merkel akhirnya dipilih sebagai pengganti Schröder. Merkel memulakan tugasnya sebagai Canselor pada 22 November 2005.